AWS與Hugging Face攜手開創更簡易、更高效的生成式AI應用新視界

DIGITIMES / 台北
2024-04-21 10:38:27

在當今科技發展中，生成式AI(Generative AI)無疑是最炙手可熱的話題之一。從寫作、繪圖到程式編碼，生成式AI正在顛覆傳統，開啟全新的創作模式。然而，要建置、訓練和部署大型語言與視覺模型，卻是一項高成本且耗時的過程，需要機器學習專業知識和AI系統開發實務經驗。這使得生成式AI對於許多開發者而言，仍是遙不可及的技術。

為了打破這個障礙，AWS與人工智慧公司Hugging Face攜手合作，致力於讓生成式AI更加易於取得、更具成本效益。這項合作旨在簡化開發者使用AWS服務部署Hugging Face模型的流程，讓他們能夠更快速地將生成式AI應用程式投入生產環境，同時提升效能並降低成本。

高效能與節省成本的生成式AI

建置、訓練和部署大型語言與視覺模型，需要龐大的計算資源和時間投入，對於大多數開發者而言，實在是一大挑戰。這些模型複雜度極高，可能包含數百億個參數，使得生成式AI對許多開發者而言仍是遙不可及。

為了彌平這個鴻溝，Hugging Face決定與AWS深化合作，讓開發者更容易取用AWS服務，並專門為生成式AI應用程式部署Hugging Face模型。這項合作的好處在於:加快訓練速度、擴展低延遲且高吞吐量的推論能力。舉例來說，搭載AWS Trainium晶片的Amazon EC2 Trn1實例，不僅可以縮短訓練時間，還可為訓練成本節省高達50%。而新一代的Amazon EC2 Inf2實例則採用AWS Inferentia第二代晶片，專為部署最新一代的大型語言和視覺模型而打造，相較於Inf1，它能提供高達4倍的吞吐量和10倍的低延遲性能。

此外，開發者也可以透過Amazon SageMaker等受管理服務，使用AWS Trainium和AWS Inferentia加速器，同時可以搭配SageMaker提供的其他機器學習工具進行開發。

立即開始使用

客戶可以透過三種方式在AWS上開始使用Hugging Face模型: (一) 透過SageMaker JumpStart (二) Hugging Face AWS深度學習容器(DLCs)或是(三) AWS Trainium和AWS Inferentia的線上教學資源。Hugging Face DLC內建了優化過的轉換器、資料集和字符化工具程式庫，可讓您在數小時而非數週內，微調並部署大規模的生成式AI應用程式，而且僅需極少的程式碼變更。

SageMaker JumpStart和Hugging Face DLCs在Amazon SageMaker可用的所有區域都可使用，而且不需額外付費。您可以參考文件和討論區，或立即試用範例筆記本，開始您的生成式AI之旅。

Hugging Face模型介紹

Hugging Face是一家人工智慧公司，專注於開發用於建構機器學習應用程式的工具。它提供了一系列可用於不同機器學習任務的模型，其中最知名的就是自然語言處理的Transformers模型。同時，Hugging Face也營運一個共享平台，供人工智慧社群分享程式碼、模型和資料集。

這些模型涵蓋了自然語言處理、電腦視覺、對話系統等廣泛的領域，可應用於文字摘要、問答系統、程式碼生成、圖像創作、文章寫作等任務。Hugging Face模型的優勢在於預訓練的模型可以快速微調以適用於特定的任務，大幅縮短開發時間。

在AWS上使用Hugging Face模型

AWS提供了多種方式，讓您能夠在雲端輕鬆使用Hugging Face模型。以下是三種主要的方法:

SageMaker JumpStart

Amazon SageMaker JumpStart提供了一系列預構建的解決方案、模型和環境，可加速機器學習工作流程。您可以透過JumpStart快速部署流行的Hugging Face模型，例如GPT和BLOOM，用於文字生成等任務。JumpStart簡化了模型部署的過程，讓您只需數次點擊即可開始使用。

Hugging Face AWS深度學習容器

AWS深度學習容器(DLCs)是一組經過優化的Docker映像檔，內建了各種深度學習環境和程式庫。Hugging Face DLCs包含了Transformers、資料集和字符化工具等Hugging Face程式庫，可讓您輕鬆微調和部署生成式AI應用程式，而且只需極少的程式碼變更。

這些容器可與Amazon SageMaker、Amazon ECS和Amazon EKS等AWS服務無縫整合，讓您能夠在雲端擁有一致的開發體驗。

AWS Trainium與Inferentia的線上教學資源

對於需要極高計算效能的大型語言和視覺模型，AWS提供了專門的機器學習加速器:AWS Trainium用於訓練，AWS Inferentia則用於推論。您可以透過AWS的教學資源，學習如何將Hugging Face模型部署到這些加速器上，獲得卓越的效能和成本效益。

快速開始使用步驟

準備好體驗生成式AI的魅力了嗎？以下是在AWS上開始使用Hugging Face模型的簡單步驟:

登入AWS管理主控台，前往Amazon SageMaker服務。
探索SageMaker JumpStart，選擇您想要使用的Hugging Face模型和任務，例如GPT用於文字生成。
啟動筆記本實例，SageMaker會自動為您配置所需的計算資源和環境。
在筆記本中運行範例程式碼，微調模型並進行推論。
選擇適合您工作負載的AWS實例類型，例如AWS Trainium或AWS Inferentia，以獲得最佳效能。
部署您的模型，讓它為您的應用程式服務。

就是這麼簡單!無論您是想要建立一個聊天機器人、自動撰寫內容還是生成圖像，AWS與Hugging Face的合作都能讓您輕鬆實現。

AWS區域可用性

AWS與Hugging Face的整合解決方案目前在Amazon SageMaker可用的所有區域都可使用，讓您能夠在就近的AWS區域部署您的生成式AI應用程式，提供低延遲且高效能的服務。

無論您身在世界何方，AWS的全球基礎設施都能為您提供一致的體驗，輕鬆實現創新想法。讓我們一同攜手，開啟生成式AI的新視界!

想要打造創新的生成式AI應用程式嗎？立即註冊 AWS 帳號，體驗 AWS 與 Hugging Face 整合的強大功能。只需簡單幾步驟，就能輕鬆部署大型語言和視覺模型，加快開發週期、提升效能並節省成本。讓我們一同開啟生成式AI的新視界！

關鍵字

AWS 高效